Siendo niño estudió con el Augsburg Kantor Tobias Kriegsdorfer. En 1661 fue a Stuttgart para estudiar con Samuel Capricornus, después de cuya muerte en 1665 fue a París y pasó cinco años como uno de los copistas de Lully. Volvió después a Stuttgart en 1673 y un año más tarde se estableció en Augsburgo, donde en 1677 figura como músico de iglesia.

Edición discográfica con obras de Johann Fischer

En 1683 se hizo violinista en la capilla de la corte de Ansbach, donde se quedó durante tres años como intérprete, maestro y compositor. Desde 1690 a 1697 ocupó un cargo similar en Mitau (ahora Jelgava, Letonia) con el Duque Friedrich Casimir de Kurland.

A fines de los años 1690 parece haber desarrollado una inquieta pasión por viajar y en los primeros diez años del siglo XVIII estaba viajando constantemente alrededor de Europa. En 1700 buscó empleo en Polonia y en 1701 en Lüneburg. Este último año se convirtió en Konzertmeister del Duque Friedrich Wilhelm Mecklenburg en Schwerin. En 1704 viajó a Copenhague, donde esperaba obtener un empleo en la corte pero fue defraudado. Estaba en Bayreuth en 1707, fue de nuevo a Escandinavia en 1710 y contempló una visita a Inglaterra. Pasó sus últimos años como Kapellmeister del Margrave Philipp Wilhelm de Brandenburg-Schwedt. Según Mattheson murió a los 70 años de edad.

Fischer fue uno de los que, como Kusser, con tesón trasplantó el estilo francés de Lully a la música alemana; algunas de sus obras revelan esta influencia. Su música de cámara superviviente no deja ninguna duda sobre sus virtudes. Sus melodías son frescas y originales, sus ritmos y armonía variados y atractivos. Su música fue tocada ampliamente, y favorablemente alabada por Mattheson. Fischer fue un importante pionero requiriendo afinaciones de scordatura en alguna de su escritura para violín e incluso para la viola.